Đại công tước Franz Karl qua đời tại Vienna vào năm 1878, sáu năm sau cái chết của vợ ông. Franz Karl được chôn cất tại Hầm mộ hoàng gia ở Nhà thờ Capuchin. Franz Karl là người Nhà Habsburg cuối cùng có các cơ quan của cơ thể được chôn cất tại Ducal Crypt của Nhà thờ St. Stephen, Vienna và trái tim được đặt tại Herzgruft của Nhà thờ Augustinian theo nghi thức gia tộc kéo dài hàng thế kỷ.